In order for artificial neural networks to begin accurately mimicking biological ones, they must be able to adapt to new exigencies without forgetting what they have learned from previous training. Lifelong learning approaches to artificial neural networks attempt to strive towards this goal, yet have not progressed far enough to be realistically deployed for natural language processing tasks. The proverbial roadblock of catastrophic forgetting still gate-keeps researchers from an adequate lifelong learning model. While efforts are being made to quell catastrophic forgetting, there is a lack of research that looks into the importance of class ordering when training on new classes for incremental learning. This is surprising as the ordering of "classes" that humans learn is heavily monitored and incredibly important. While heuristics to develop an ideal class order have been researched, this paper examines class ordering as it relates to priming as a scheme for incremental class learning. By examining the connections between various methods of priming found in humans and how those are mimicked yet remain unexplained in life-long machine learning, this paper provides a better understanding of the similarities between our biological systems and the synthetic systems while simultaneously improving current practices to combat catastrophic forgetting. Through the merging of psychological priming practices with class ordering, this paper is able to identify a generalizable method for class ordering in NLP incremental learning tasks that consistently outperforms random class ordering.

Large language models having hundreds of millions, and even billions, of parameters have performed extremely well on a variety of natural language processing (NLP) tasks. Their widespread use and adoption, however, is hindered by the lack of availability and portability of sufficiently large computational resources. This paper proposes a knowledge distillation (KD) technique building on the work of LightMBERT, a student model of multilingual BERT (mBERT). By repeatedly distilling mBERT through increasingly compressed toplayer distilled teacher assistant networks, CAMeMBERT aims to improve upon the time and space complexities of mBERT while keeping loss of accuracy beneath an acceptable threshold. At present, CAMeMBERT has an average accuracy of around 60.1%, which is subject to change after future improvements to the hyperparameters used in fine-tuning.

本文讨论了面部表达识别模型和描述生成模型，以构建图像中人的图像和面部表情的描述性句子。我们的研究表明，Yolov5比传统的CNN获得了KDEF数据集的所有情绪的更好结果。特别是，CNN和Yolov5模型的精度分别为0.853和0.938。使用VGG16与LSTM模型编码的描述提出了用于基于合并体系结构的图像描述的模型。 Yolov5还用于识别图像中对象的主要颜色，并在必要时纠正生成的描述中的颜色单词。如果描述包含指称一个人的单词，我们会认识到图像中人的情感。最后，我们结合了所有模型的结果，以创建描述图像中视觉内容和人类情感的句子。越南语中FlickR8K数据集的实验结果实现了BLLEU-1，BLEU-2，BLEU-3，BLEU-4分数为0.628； 0.425; 0.280;和0.174。

本文提出的方法是通过单个输入双语词典自动为低资源语言（尤其是资源贫乏的语言）创建大量新的双语词典。我们的算法使用可用的WordNets和Machine Translator（MT）生成了源语言的单词翻译为丰富的目标语言。由于我们的方法仅依赖于一个输入字典，可用的WordNet和MT，因此它们适用于任何双语词典，只要两种语言之一是英语，或者具有链接到Princeton WordNet的WordNet。从5个可用的双语词典开始，我们创建了48个新的双语词典。其中，流行的MTS不支持30双语言：Google和Bing。

本文报道的研究通过应用计算机视觉技术将普通的垃圾桶转化为更聪明的垃圾箱。在传感器和执行器设备的支持下，垃圾桶可以自动对垃圾进行分类。特别是，垃圾箱上的摄像头拍摄垃圾的照片，然后进行中央处理单元分析，并决定将垃圾桶放入哪个垃圾箱中。我们的垃圾箱系统的准确性达到90％。此外，我们的模型已连接到Internet，以更新垃圾箱状态以进行进一步管理。开发了用于管理垃圾箱的移动应用程序。

本文研究了为濒危语言生成词汇资源的方法。我们的算法使用公共文字网和机器翻译器（MT）构建双语词典和多语言词库。由于我们的作品仅依赖于濒危语言和“中间帮手”语言之间的一个双语词典，因此它适用于缺乏许多现有资源的语言。

手动构建WordNet是一项艰巨的任务，需要多年的专家时间。作为自动构建完整WordNet的第一步，我们建议使用公开可用的WordNet，机器翻译器和/或单语言词典来生成有关资源丰富和资源贫乏语言的WordNet Synset的方法。我们的算法将现有WordNet的合成器转换为目标语言t，然后在翻译候选者上应用排名方法以查找T中的最佳翻译。我们的方法适用于任何至少有一个从英语翻译到它的现有双语字典的语言。

双语词典是昂贵的资源，当其中一种语言贫穷时，没有多少可用。在本文中，我们提出了从现有双语词典中创建新的反向双语词典的算法，其中英语是两种语言之一。我们的算法利用了使用英语WordNet产生反向字典条目之间单词概念对之间的相似性。由于我们的算法依赖于可用的双语词典，因此只要两种语言之一具有WordNet型词汇本体论，它们就适用于任何双语词典。

使用基于词典的方法将语言L1中的短语转换为语言L2的过去方法需要语法规则来重组初始翻译。本文引入了一种新颖的方法，而无需使用任何语法规则将L1中不存在的L1中的给定短语转换为L2。我们在L2中至少需要一个L1-L2双语词典和N-Gram数据。我们翻译的平均手动评估得分为4.29/5.00，这意味着非常高质量。

视觉模型可以评估图像中的视觉上下文并生成描述性文本。尽管生成的文本可能是准确且句法正确的，但通常过于笼统。为了解决这个问题，最近的工作使用光学特征识别来补充视觉信息，并从图像中提取的文本进行补充。在这项工作中，我们认为，视觉模型可以受益于可以从图像中提取但不使用当前模型使用的其他信息。我们修改了以前的多模式框架，以接受来自任意数量的辅助分类器的相关信息。特别是，我们将重点放在人的名字作为附加令牌上，并创建一个新颖的图像捕获数据集，以促进用人名称的字幕。标题（PAC）中的数据集，政客和运动员包括背景下知名人士的字幕图像。通过使用此数据集对预处理的模型进行微调，我们演示了一个模型，该模型可以自然地将面部识别令牌纳入生成的文本中，通过培训有限的数据。对于PAC数据集，我们提供有关集合和基线基准分数的讨论。